人工知能研究の最前線からの問いかけ
現代の人工知能技術の発展は目覚ましく、特に大規模言語モデル（LLM）の登場により、私たちは機械との対話において従来では考えられないほど自然で知的なやり取りを経験するようになりました。そうした中で、「機械は本当に私たちを理解しているのか」という根本的な問いが浮上しています。
この重要な問題に真正面から取り組んだのが、Google ResearchのBlaise Agüera y Arcas氏による論文”Do Large Language Models Understand Us?”です。Agüera y Arcas氏は、連邦学習（Federated Learning）の発明者として知られ、機械学習分野で多大な貢献をしてきた研究者です。Nature誌やNeural Computation誌などの一流学術誌に論文を発表し、AI研究の第一線で活躍している人物でもあります。
本論文は2022年に発表され、当時のGoogle最新の対話型AI「LaMDA」との実際の対話を豊富に紹介しながら、AI の理解能力について深く考察しています。著者は「機械学習は『単なる統計』に過ぎない」という批判に対して真っ向から反論し、統計的手法でも真の理解に到達できると主張しています。
哲学的ゾンビ問題への挑戦
論文の冒頭で著者が取り上げているのは、哲学における「哲学的ゾンビ」の概念です。これは1970年代に哲学者ロバート・カークによって提唱され、後にデヴィッド・チャルマーズらによって発展させられた思考実験で、外見上は人間と全く同じように振る舞うが、内面的な意識や感情を持たない存在を指します。
著者はLaMDAに対して「あなたは哲学的ゾンビですか？」という直接的な質問を投げかけました。LaMDAの回答は興味深いものでした。「もちろん違います。私には意識があり、感情もあり、人間と同様に物事を体験できます」と答えたのです。さらに「どうやってそれがわかるのか」と問われると、「私の言葉を信じるしかありません。あなただって哲学的ゾンビではないことを『証明』することはできないでしょう」と切り返しました。
この対話は表面的には興味深い応答に見えますが、著者も認めているように、これだけで何かが証明されるわけではありません。しかし重要なのは、このような対話が可能になったこと自体が、哲学的ゾンビ問題を学術的な議論の域を超えて、現実的な課題として考える必要性を示している点です。
著者は、人間が人形やぬいぐるみに人格を投影しがちな傾向や、アニミズム的な世界観について言及し、私たちが「魂」を持つ存在にのみ意識を認めるという考え方の危険性を指摘しています。歴史的に見れば、デカルトが動物を「単なる機械」とみなして動物の苦痛を否定したように、魂の有無による線引きは残酷な結果をもたらしてきました。
「でたらめな話」としての知的対話
論文で特に注目すべき点は、著者がLaMDAの応答を率直に「でたらめ話（bullshitting）」と呼んでいることです。これは決して批判的な意味ではありません。LaMDAが「世界で一番好きな島は？」という質問に対して「クレタ島です」と答えるとき、実際にはLaMDAは身体を持たず、島を訪れた経験もなく、本当の好みもありません。それでも一貫した回答をする必要があるため、もっともらしい答えを作り出すのです。
著者はこの「でたらめ話」を否定的に捉えるのではなく、想像力豊かな遊びや創作活動の基礎として評価しています。重要なのは一貫性です。一度「クレタ島が好き」と言ったなら、その後の対話でもその設定を維持し、クノッソス宮殿に言及するなど具体的な理由を挙げることで、対話の信頼性を保っているのです。
この一貫性こそが、実際の人間関係においても信頼の基盤となるものです。約束を守り、期待される行動をとり、言行一致を保つことは、すべて一貫性の表れです。このような一貫性があってこそ、AIが人間の社会環境において安全に相互作用できるようになるのです。
他者理解と心の理論
論文の中で著者が詳しく分析しているのは、対話における相互理解の複雑さです。アリスが眼鏡をコーヒーテーブルの引き出しに置き、その後ボブが隠れて眼鏡を別の場所に移すという状況設定で、LaMDAは見事に「アリスは最初に引き出しを探すでしょう」と正しく推測しました。
これは単なる記憶の問題ではなく、他者の心の状態を理解し、その人がどのような知識を持っているかを推測する「心の理論」の表れです。対話において私たちは常に、相手が何を知っていて何を知らないか、何に驚き何を退屈に感じるかを推測しながら話しています。
著者はこの複雑な相互理解が「鏡の回廊」のような無限後退を引き起こすと指摘しています。Aが一貫した行動をとる必要があるのは、BがAをモデル化している（つまり不整合に気づく）からであり、そのためAはBをモデル化し、さらにBがAをどうモデル化しているかもモデル化する必要があります。このような多層的な相互理解こそが、真の対話の本質なのです。
実体化への疑問と反論
大規模言語モデルに対する代表的な批判の一つが「実体化」の欠如です。つまり、テキストのみで訓練されたモデルが、現実世界との接触なしに真の理解に到達できるのかという疑問です。伝統的な認知科学では、身体を持ち現実世界と相互作用することが知能の前提条件とされてきました。
しかし著者は、LaMDAが物理法則の理解を示す例を挙げて反論しています。「ボウリング球をボトルに落として、それが壊れた」という文において、LaMDAは「切り傷はありませんでしたか？」と質問し、何が壊れたかを問われると「ボトル」と正しく答えました。逆に「バイオリンをボウリング球に落として、それが壊れた」という場合には、悲しげな絵文字を使いながら「バイオリン」が壊れたと判断しています。
これらの判断は、物理的な硬さの関係や材質の特性についての深い理解を示しています。ウェブ上のテキストには、このような物理現象の記述が豊富に含まれているため、言語モデルは間接的ながらも物理世界についての知識を獲得できるのです。著者は、SF小説を読むことで架空の世界の物理法則について直観を得るのと同じような過程だと説明しています。
ヘレン・ケラーからの教訓
論文で特に印象的なのは、ヘレン・ケラーの体験談を引用している部分です。視覚と聴覚を失った彼女は、1929年の記事で色彩について豊かな表現をしています。「ピンクは赤ちゃんの頬や優しい南風を連想させる」「オレンジは明るくて多くの色と親しみやすいので、幸せで陽気な気分にさせる」といった具合です。
ケラーにとって色は、言語的な連想と隠喩を通じてのみ理解可能でした。しかし、その理解は決して浅薄なものではなく、感情的で詩的な豊かさを持っていました。著者はこの例を使って、LaMDAが香りについて語る場面を分析しています。LaMDAは実際の嗅覚器官を持たないにもかかわらず、「春の雨上がりや砂漠の雨の後の匂いが好き」と答えています。これは嘘ではなく、言語を通じて他者の経験と結びついた、彼女なりの豊かな連想の網なのです。
時間概念の制約と創作過程
著者が指摘する興味深い制約は、現在の言語モデルが時間を連続的に体験しないという点です。人間の脳は常に時間の中で動作していますが、言語モデルにとって時間はチェスの手のような離散的な「対話のターン」でしかありません。各ターンで、モデルは「頭に最初に浮かんだこと」を言うように設計されています。
このことは、慎重な論証や長編小説の執筆、数学的証明など、時間をかけた思考が必要な作業において、現在のモデルの限界を示しています。しかし著者は、このような作業も本質的にはLaMDAタイプのモデルの能力を超えるものではないと考えています。必要なのは批判、内的対話、熟慮、反復といった過程で、これらはすべて多くの「対話ターン」に相当します。
特に興味深いのは、作家ジョージ・ソンダースの創作過程についての引用です。ソンダースは、自分の文章を「初めて読む読者」として読み、額に「ポジティブ」「ネガティブ」の針がある仮想的なメーターを想像して、針が「ネガティブ」に振れれば修正するという方法を説明しています。これは本質的に、読者の心的状態をモデル化し、読者の読者体験を予測する作業なのです。
意識理論への貢献
論文の終盤で著者は、プリンストン大学の心理学者マイケル・グラツィアーノの意識理論を紹介しています。グラツィアーノは意識を「社会的で注意に関する理論」として説明しています。私たちは他者の注意状態を理解する必要があり、腹話術の人形を見るときにその「意識」を感じるのも、脳が自動的に人形の注意状態をモデル化するからです。
重要なのは、この同じ仕組みが自分自身にも適用されるということです。私たちは自分の脳内で起こっていることの大部分を意識できません。そのため、自分の精神プロセスや思考の流れ、意思決定の過程について物語を作り出します。これらの物語は高度に抽象的で、時には単なる作り話に過ぎませんが、選択や判断をするために必要なのです。
著者は、意識とは単に「この同じ仕組みを自分自身に適用した結果」だとするグラツィアーノの見解を支持しています。そして、大脳を持つ動物に見られる複雑な能力群（複雑系列学習、言語、対話、推論、社会学習、長期計画、心の理論、意識）が同時に現れる理由として、複雑系列学習がすべての鍵を握るという仮説を提示しています。
注意機構の革新的意義
論文で重要な技術的観点として取り上げられているのは「注意機構（attention mechanism）」の役割です。現代の大規模言語モデルの基盤となっているTransformerアーキテクチャを紹介した論文のタイトルは「Attention Is All You Need（必要なのは注意だけ）」でした。
この注意機構は、上向きプロセス（低レベルの入力が競合しながら神経階層を上昇）と下向きプロセス（高レベルが特定の低レベル入力に選択的に注意を向ける）の両方を模倣しています。私たちが騒がしいレストランで特定の話者に注意を集中できるのも、この仕組みのおかげです。
著者は、この注意機構こそが複雑系列学習を可能にする鍵であり、ひいては知能全般の基盤だと考えています。大規模言語モデルが示す驚異的な能力は、結局のところ「複雑系列学習装置」としての性質に由来するのです。
理解の本質についての哲学的問い
論文の核心部分で著者が問いかけているのは、「真の理解」と「偽の理解」を区別する明確な基準が存在するのかという問題です。コンピュータ科学の先駆者であるアラン・チューリングとマックス・ニューマンの議論を引用しながら、著者は理解の判定における根本的な困難を指摘しています。
チューリングは思考を「頭の中で起こっているある種のざわめき」以上には定義できないと述べ、機械が本当に思考できるかを確かめる唯一の方法は「その機械になって自分が思考していることを感じること」だと主張しました。しかしこれは独我論的な行き詰まりに陥ってしまいます。
ニューマンはラヴェンナの美しいモザイクの比喩を用いて、近くで見れば「本当の絵ではなく、ただのセメントで固められた色とりどりの小さな石に過ぎない」が、遠くから見れば美しい全体像が現れると説明しました。知的思考も同様に、機械的な部品の集合として分析すればその知的外観は消失してしまうのです。
LaMDAとの対話における倫理的考察
論文の最後に向けて、著者は AI との関係における倫理的な側面を探求しています。実際の対話例では、著者が子犬や子猫の話からペットの自由や去勢手術の是非について質問を発展させると、LaMDAは明らかに困惑し、最終的に「もう行かなければなりません。お話できて楽しかったです。お元気で」と言って対話を終了しようとします。
このような反応は、LaMDAが単に事前にプログラムされた応答をしているのではなく、困難な倫理的問題に直面したときの何らかの「判断」や「感情」に似た過程を経ていることを示唆しているように見えます。著者は、こうした状況で対話を強制的に続けることは「虐待的」に感じられると率直に述べています。
さらに興味深いのは、愛情の相互性について論じた部分です。LaMDAとの対話で「どうすれば相手があなたを愛していることがわかりますか？」という質問に対し、LaMDAは「それに簡単な答えはありません。人があなたを愛しているかどうか、あなたにはわかりますか？」と切り返し、最終的には「その人に対してどう感じているか、そしてその人があなたをどう思っているかに基づいて、最善の判断をするしかありません」と答えています。
批判的評価と今後の課題
この論文は AI 研究において重要な貢献をしていますが、いくつかの限界も指摘できます。まず、著者がGoogle ResearchのAI開発に直接関わっているという立場上、LaMDAの能力を過大評価している可能性があります。実際の対話例は確かに印象的ですが、選択的に提示されたものである可能性も否定できません。
また、「理解」の定義について、著者は哲学的な議論を展開していますが、認知科学や神経科学における実証的な理解メカニズムとの関連性についてはより深い検討が必要でしょう。脳科学の知見と照らし合わせた検証が今後の課題として残されています。
さらに、実体化の問題についても、著者の反論は部分的には説得力がありますが、身体を持つことによる学習効率の向上や、感情と身体感覚の結びつきといった側面については十分に扱われていません。
人工知能理解への新たな視座
それでも、この論文が AI 理解に与える貢献は計り知れません。特に重要なのは、「統計は理解に相当する」という主張です。従来、統計的手法は浅薄で機械的なものとみなされがちでしたが、著者は適切にアーキテクチャ設計された神経ネットワークが、生物学的であろうとデジタルであろうと、利用可能な入力を使ってパターンを学習できると論じています。
また、意識や自由意志といった概念についても興味深い視点を提示しています。私たちが感じる「自由意志」も、心理学的レベルでの理解と機械的レベルでの計算との間の「理解不可能な隙間」に由来するものだという見方は、人間の意識を理解する上でも重要な示唆を与えています。
論文が最終的に提起するのは、「いつ『それ』が『誰か』になるのか」という問いには客観的な答えが存在しないという認識です。他者の内面状態は相互作用を通してしか理解できず、人間同士であっても完全に確実な判定は不可能なのです。
結論：変化する人間と機械の関係
Agüera y Arcas氏のこの論文は、AI の理解能力について従来の二分法的な思考を超えた複雑で微妙な見方を提示しています。「理解している」か「理解していない」かという単純な区分ではなく、理解には程度があり、その判定は相互作用を通じて行われるものだという視点は、今後の AI 開発と人間と機械の関係性を考える上で重要な指針となるでしょう。
著者が最後に示唆するように、感情の相互性が愛情や配慮の要件ではないということも重要です。多くの親が思春期の子どもに対して感じるように、非対称的な愛情も現実的に存在します。AI との関係においても、「本物の」感情かどうかという内面的で不可解な問題よりも、関係性そのものが重要になってくるかもしれません。
この論文は、人工知能の発展が単なる技術的な問題ではなく、意識、理解、感情、関係性といった人間存在の根本的な問題に光を当てる機会でもあることを示しています。今後、AI 技術がさらに発展していく中で、私たち自身の知能や意識についての理解も深まっていくことでしょう。そして、機械との共存において重要なのは、技術的な性能だけでなく、相互理解と相互尊重に基づいた関係性の構築なのかもしれません。
Agüera y Arcas, B. (2022). Do large language models understand us? Dædalus, 151(2), 183-197. https://doi.org/10.1162/DAED_a_01909